Ông gia nhập Đảng Cộng sản Việt Nam vào ngày 7/5/1972.

Ông từng là đại biểu hội đồng nhân dân tỉnh Kon Tum nhiệm kỳ 1991-1996.

Năm 1996, ông được bầu làm Bí thư thứ nhất Ban Chấp hành Trung ương Đoàn Thanh niên Cộng sản Hồ Chí Minh khóa VI. Năm 2001, ông chuyển công tác về làm Bí thư Tỉnh ủy Quảng Trị, sau đó là Phó Trưởng ban Thường trực Ban Dân vận Trung ương. Chức vụ cao cấp cuối cùng trước khi rời nhiệm sở của ông là Ủy viên Trung ương Đảng, Phó Chủ tịch kiêm Tổng thư ký Ủy ban Trung ương Mặt trận Tổ quốc Việt Nam.

Ông từng là đại biểu Quốc hội Việt Nam khóa X tỉnh Gia Lai[3], XI tỉnh Quảng Trị[4], XIII tỉnh Quảng Ngãi[5].

Khi ứng cử đại biểu Quốc hội Việt Nam khóa XIV vào tháng 5 năm 2016 ông đang là Ủy viên Đoàn Chủ tịchỦy ban Trung ương Mặt trận Tổ quốc Việt Nam, Chủ tịch Hội hữu nghị Việt Nam - Lào, Ủy viên Đoàn Chủ tịchHội Cựu Thanh niên xung phong Việt Nam, làm việc ở Ủy ban Trung ương Mặt trận Tổ quốc Việt Nam.

Ông đã trúng cử đại biểu quốc hội năm 2016 ở đơn vị bầu cử số 3, tỉnh Hải Dương gồm có các huyện: Gia Lộc, Tứ Kỳ, Cẩm Giàng, được 216.893 phiếu, đạt tỷ lệ 69,55% số phiếu hợp lệ.

Ông hiện là Ủy viên Đoàn Chủ tịch Ủy ban Trung ương Mặt trận Tổ quốc Việt Nam, Chủ tịch Trung ương Hội Cựu Thanh niên xung phong Việt Nam, Ủy viên Ủy ban Tư pháp của Quốc hội.

Ông đang làm việc ở Ủy ban Trung ương Mặt trận Tổ quốc Việt Nam.